Trung Quốc tái chế card đồ họa RTX 3090 thành AI Accelerator để vượt qua lệnh cấm của Mỹ

Gần đây, các nhà máy Trung Quốc đã tháo rời card đồ họa GeForce RTX 4090 bị cấm để biến chúng thành AI Accelerator. Giờ đây, các card RTX 3090 thế hệ trước cũng đang bị nhắm tới. Giống như GPU từng là hàng hóa nóng nhất trong thời kỳ bùng nổ tiền điện tử, GPU Nvidia cao cấp với phần cứng AI nhanh và nhiều bộ nhớ đã trở thành lựa chọn lý tưởng cho khối lượng công việc AI, ngay cả khi Hoa Kỳ siết chặt xuất khẩu sang Trung Quốc.

Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.

Trung Quốc tái chế card đồ họa RTX 3090 thành AI Accelerator để vượt qua lệnh cấm của Mỹ

Gần đây, các nhà máy Trung Quốc đã tháo rời card đồ họa GeForce RTX 4090 bị cấm để biến chúng thành AI Accelerator. Giờ đây, các card RTX 3090 thế hệ trước cũng đang bị nhắm tới. Giống như GPU từng là hàng hóa nóng nhất trong thời kỳ bùng nổ tiền điện tử, GPU Nvidia cao cấp với phần cứng AI nhanh và nhiều bộ nhớ đã trở thành lựa chọn lý tưởng cho khối lượng công việc AI, ngay cả khi Hoa Kỳ siết chặt xuất khẩu sang Trung Quốc.

Công cụ TensorRT của NVIDIA tăng hiệu suất cho các tác vụ AI như Stable Diffusion và Llama 2

NVIDIA đã và đang nỗ lực cải tiến bộ công cụ AI/ML (trí tuệ nhân tạo/học máy) và LLM (mô hình ngôn ngữ lớn) của mình. Bổ sung mới nhất là TensorRT và TensorRT-LLM, được thiết kế để tối ưu hóa hiệu suất của GPU tiêu dùng và nhiều card đồ họa tốt nhất để chạy các tác vụ như Stable Diffusion và tạo văn bản Llama 2. Chúng tôi đã thử nghiệm một số GPU mới nhất của NVIDIA bằng TensorRT và nhận thấy hiệu suất trong Stable Diffusion được cải thiện tới 70%. TensorRT hiện có sẵn để tải xuống tại trang GitHub của NVIDIA, mặc dù chúng tôi đã có quyền truy cập sớm cho mục đích của cái nhìn ban đầu này.